RREDCoT: Segment-Level Reward Redistribution for Reasoning Models
RREDCoT：面向推理模型的段级奖励再分配
🧭 RL微调中的信用分配与奖励再分配 ★ 深度解读
Johannes Kepler University Linz · Cognizant AI Lab · NXAI GmbH
利用语言模型自身近似最优奖励再分配，无需额外生成，提升GRPO等强化学习的样本效率。
📌 工作参考价值（4 点）
- 多步推理Agent的奖励塑形：可直接利用策略模型自身预估中间状态价值，避免额外价值网络或MC采样，适合长序列在线训练。
- 高效分割策略：混合关键词–熵合并的分割方法可为长文本生成任务（如商品描述生成、对话策略）提供廉价且有效的片段级奖励分配。
- 自助奖励再分配：当缺少参考解时，可用模型自身产生的正确答案进行奖励再分配，适配真实业务中无完美演示的场景。
- 轻量实现：仅需一次前缀前向传播即可获得片段级信用，KV复用使峰值显存不变，适合在现有GRPO等RL管线中快速集成。